公元前586年，新巴比伦国王尼布甲尼撒二世灭掉犹太国，拆毁犹太人的圣城耶路撒冷，烧掉神庙，将国王连同近万名臣民掳掠到巴比伦，只留下少数最穷的人。这就是历史上著名的“巴比伦之囚”。犹太人在巴比伦多半沦为奴隶，为尼布甲尼撒修建巴比伦城，直到70年后波斯帝王居鲁士到来才拯救了他们。亡国为奴的仇恨使得犹太人刻骨铭心，他们虽无力回天，但却凭借自己的思想表达自己的愤怒。于是，巴比伦人的“神之门”在犹太人眼里充满了罪恶，遭到了诅咒。他们诅咒道：“沙漠里的野兽和岛上的野兽将住在那里，猫头鹰要住在那里，它将永远无人居住，世世代代无人居住。”
事实上，“巴别”塔早在尼布甲尼撒及其父亲之前就已存在，古巴比伦王国的几位国王都曾进行过整修工作。但外来征服者不断地将之摧毁。尼布甲尼撒之父那波博来萨建立了新巴比伦王国后，也开始重建“巴别”通天塔，他在铭文中写道：“巴比伦塔年久失修，因此马尔杜克命我重建。他要我把塔基牢固地建在地界的胸膛上，而尖顶要直插云霄。”但尼布甲尼撒之父只将塔建到15米高，尼布甲尼撒自己则“加高塔身，与天齐肩”。塔身的绝大部分和塔顶的马尔杜克神庙是尼布甲尼撒主持修建的。备受人称赞的“巴别”塔一般指的就是那波博来萨父子修建而成的那一座。
这座塔的规模十分宏大。公元前460年，即塔建成150年后，古希腊历史学家希罗多德游览巴比伦城时，对这座已经受损的塔仍是青睐有加。根据他的记载，通天塔建在许多层巨大的高台上，这些高台共有8层，愈高愈小，最上面的高台上建有马尔杜克神庙。墙的外沿建有螺旋形的阶梯，可以绕塔而上，直达塔顶；塔梯的中腰设有座位，可供歇息。塔基每边长大约90米，塔高约90米。据19世纪末期的考古学家科尔德维实际的测量和推算，塔基边长约96米，塔和庙的总高度也是约96米，两者相差无几。“巴别”塔是当时巴比伦国内最高的建筑，在国内的任何地方都能看到它，人们称它“通天塔”。也有人称它是天上诸神前往凡间住所途中的踏脚处，是天路的“驿站”或“旅店”。
